[アップデート] Amazon Redshift ML が大規模言語モデル(LLM)をサポートしました（プレビュー） #AWSreInvent

データアナリティクス事業本部のコンサルティングチームの石川です。

本日より、Amazon Redshift MLは、パブリックプレビューで大規模言語モデルをサポートしました。Redshift MLの一部としてAmazon SageMaker JumpStartで事前トレーニング済みの公開されているLLMを分析に活用できるようになりました。

Amazon Redshift MLの大規模言語モデル(LLM)をサポート

Amazon Redshift MLは、大規模言語モデル(LLM) をサポートするために使い慣れたSQLコマンドを使用して機械学習モデルを作成、トレーニング、デプロイできる機能です。

Amazon Redshift MLが、大規模言語モデルを活用できるようにするためには、Amazon SageMaker JumpStartの大規模言語モデルを最適な設定、デプロイする機能と連携します。Amazon SageMaker JumpStartは、MetaのLlama2やTIIのFalcon、rinna株式会社から公開されている大規模言語モデルなどをJumpStartから利用できます。

Redshift ML の一部としてAmazon SageMaker JumpStartで事前トレーニング済みの公開されている LLM を活用できるようになり、LLM のパワーを分析に活用できるようになりました。たとえば、Amazon Redshift で製品フィードバック データを推論し、LLM を使用してフィードバックを要約し、エンティティ抽出、センチメント分析、製品フィードバック分類を実行できます。

この機能を利用するためには

Amazon SageMaker JumpStartで、LLMのエンドポイントを作成します。すぐに使用できる事前定義モデルを活用するか、Amazon Sagemaker JumpStartで独自のデータを使用してカスタムモデルをトレーニングし、モデルエンドポイントを使用します。

Amazon Redshift MLは、Redshiftのデータに対してリモート推論を行うことができます。LLM 推論を使用するには、入力および出力のデータ型がSUPERである必要があります。

最後に

Amazon SageMaker JumpStartは、大規模言語モデルは、オープンソースコミュニティとの連携を通じ、MetaのLlama2やTIIのFalconなどをJumpStartで提供してきました。この成果をAmazon Redshift MLに活用できるようにしたのが今回のアップデートになります。LLMは、さまざまな応用分野で使用され、その柔軟性と性能の高さから広く注目されています。

合わせて読みたい